Hầu hết các tài liệu đều cho rằng Trưởng lão bộ được hình thành từ sau Đại hội kết tập lần thứ hai. Tuy lý do để triệu tập của Đại hội kết tập lần thứ hai là khá khó hiểu và mơ hồ, nhưng các học giả đều thống nhất kết quả của nó là sự chia rẽ đầu tiên trong Tăng đoàn, hình thành nên Trưởng lão bộ và Đại chúng bộ (Mahāsāṃghika).[1]

Nguyên nhân của sự chia rẽ này vẫn chưa được các học giả thống nhất. Theo truyền thống của Theravāda, dẫn theo Đại sử (Mahāvastu), nguyên nhân gây chia rẽ là sự tranh chấp về 10 điều hợp pháp (Dasavatthūni) do tăng chúng xứ Bạt-kỳ (Vajji) đề xuất. Một thuyết khác cũng phổ biến khác, nguyên nhân chia rẽ tăng đoàn là từ mâu thuẫn của 5 luận điểm (pañcavastu) về A-la-hán do Đại Thiên (Mahādeva) đề xuất. Các nhà nghiên cứu hiện đại như André Bareau, Paul Demiéville, Nalinaksha Dutt... đều thiên về một trong hai thuyết chính trên, nhưng tất cả đều thống nhất quan điểm bản chất sự chia rẽ liên quan đến giới luật (vinaya).